Coping with silent errors in HPC applications

This report describes a unified framework for the detection and correction of silent errors, which constitute a major threat for scientific applications at extremescale. We first motivate the problem and explain why checkpointing must be combined with some verification mechanism. Then we introduce a general-purpose technique based upon computational patterns that periodically repeat over time. These patterns interleave verifications and checkpoints, and we show how to determine the pattern minimizing expected execution time. Then we move to application-specific techniques and review dynamic programming algorithms for linear chains of tasks, as well as ABFT-oriented algorithms for iterative methods in sparse linear algebra. Key-words: Fault-tolerance, checkpointing, silent errors, error detection, error correction, algorithm-based fault tolerance, linear task graphs, conjugate-gradient algorithm. ∗ Penn State University, USA, [email protected] † CNRS, École Normale Supérieure de Lyon & INRIA, France, {anne.benoit|aurelien.cavelan|yves.robert|hongyang.sun|bora.ucar}@ens-lyon.fr ‡ University of Manchester, UK, [email protected] § University of Tennessee Knoxville Détection et correction des erreurs silencieuses dans les applications de calcul scientifique à haute performance Résumé : Nous décrivons dans ce rapport un modèle unifié pour la détection et la correction des erreurs silencieuses dans les applications de calcul scientifique à haute performance. Nous proposons d’abord une méthode générale à base de schémas de calcul périodiques qui combinent checkpoints et vérifications. Puis nous traitons de deux cas particuliers, à savoir les châınes de tâches et les solveurs linéaires creux. Mots-clés : résilience, erreurs silencieuses, checkpoint, ABFT, produit matrice-vecteur creux. Coping with silent errors in HPC applications 3 Time Xs Xd Error Detection Figure 1: Error and detection latency.